即時快訊
數產署表揚13家友善電商企業推動安心網購 Perky榮獲MUSE國際設計雙銀獎,女性營養品牌累積六項國內外肯定 金門酒廠「一穀作契」100%本土契作好品質 獲得農業部農糧署國產農糧原料酒推薦 「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工
圖/示意圖
科技生活

·6 個月前·責任編輯
#AI資安#Anthropic#Mythos#人工智慧治理#美國白宮
圖/示意圖
圖/示意圖
商傳媒|責任編輯/綜合外電報導
摘要

Anthropic 的新型 AI 模型 Mythos 發現數千個網路系統高嚴重性漏洞,其快速偵測能力對傳統資安揭露模式構成挑戰。此事件引發美國政府與科技巨頭間的治理角力,白宮考慮要求 AI 模型發布前須經政府審查,而 OpenAI 則倡議「受控加速」以強化防禦者,凸顯人工智慧安全和監管的迫切需求。

美國人工智慧公司 Anthropic 近期宣布,其開發的新型 AI 模型 Mythos 在主流作業系統、網頁瀏覽器及核心加密函式庫中,發現了數千個高嚴重性漏洞。這項發現不僅凸顯了 AI 在資安領域的潛力,也暴露出全球在人工智慧治理方面的巨大落差,促使美國政府與科技巨頭之間展開一場複雜的政策角力。

Mythos 模型能在數小時內偵測出研究人員耗時數月才能發現的漏洞,對傳統的「負責任揭露」(responsible disclosure)模式構成嚴峻挑戰。在缺乏明確規範的情況下,掌握尖端 AI 技術的私人企業,例如 Anthropic,正如同監管機構般,主導著這些強大工具的存取與部署條件。

白宮對於將 Mythos 的存取權限擴大至現有限定小組之外的計畫表達反對,理由是擔憂其可能帶來的安全風險。美國政府目前正考慮要求 AI 公司在發布其前沿模型前,須先經過政府審查。與此同時,國家安全局(National Security Agency)據報已在使用 Mythos,而中央情報局(CIA)也已將 AI 整合至其核心分析平台,顯示尖端 AI 在治理框架確立之前,已成為美國國安機構不可或缺的作戰工具。

然而,OpenAI 對此持有不同看法。該公司透過其網路安全行動計畫主張,無論如何攻擊者都將採用這些工具,因此降低國家風險的最佳方式是「以比對手更快的速度,負責任地裝備並加速值得信賴的防禦者」。OpenAI 將其立場稱為「受控加速」,並透過分級存取計畫提供給經過審查的防禦者使用。專家認為,AI 攻擊能力從少數菁英手中走向普及化,遵循的將是「早期遏制、逐步擴散、最終民主化」的軌跡,這也可能適用於 AI 輔助的漏洞發現。

Anthropic 迄今選擇了克制,將 Mythos 的存取權限限縮於小規模私人發布,並與部分關鍵基礎設施業者和企業合作。然而,隨著人工智慧能力的廣泛傳播,國家及非國家行為者利用 AI 進行複雜網路攻擊的門檻將可能降低。這場圍繞 AI 治理的討論,凸顯了白宮追求「控制」、OpenAI 偏向「速度」、而 Anthropic 選擇「謹慎」之間的不同優先次序,揭示了目前 AI 治理策略的重大缺口。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源